CAT-alyzing Honesty: Continuous Adversarial Training for Transferable LLM Honesty
连续对抗训练增强 LLM 可迁移诚实性
🧭 对抗训练 · LLM 对齐与诚实性
Tara Research · Mila – Quebec AI Institute · Technical University of Munich
CATCH 用数百条自报告场景构造对抗训练对，让 LLM 在压力下保持诚实并跨任务泛化
📌 工作参考价值（4 点）
- 借鉴 CATCH 的构造方法：用 self-reporting 场景生成“有依据 vs 编造”答案对，仅需数百条即可训练模型远离不诚实输出，成本低，适合电商推荐解释、商品属性描述等场景，抑制模型编造不存在的优惠或参数。
- utility data 的选择是保持通用能力的关键：CATCH 在外循环加入 utility 数据防止诚实训练导致能力漂移，优于纯激活引导。在微调推荐对话或 Agent 时，应同时混合正常推荐/通用 QA 数据，避免模型变得“诚实但无用”。
- 对抗训练的内外循环范式（embedding 扰动让错误答案更容易，再更新参数偏好正确答案）比 SFT 更强，可迁移到广告文案生成中防止夸大宣传，或在多智能体场景中减少 Agent 隐瞒信息（如不披露广告属性）。
- CATCH 不增加推理开销，可直接部署到线上推荐 Agent；若已有 activation steering 方案，可考虑替换或叠加，以保持更强 utility。